Khi quân Đức bắt đầu cuộc xâm lược Liên Xô, Pliyev chỉ huy Sư đoàn kỵ binh 50 (sau đổi tên thành Sư đoàn kỵ binh cận vệ 3). Đơn vị của ông đã tham gia trận Moskva và trận Stalingrad.[2] Pliyev phục vụ cùng Lev Dovator, người đã chiến đấu cùng Rokossovsky trong Tập đoàn quân 16. Đơn vị này cùng với đơn vị của Pavel Belov là những đơn vị kỵ binh thành công nhất trong trận Moskva. Trong trận Stalingrad, đơn vị ông là đơn vị đầu tiên hoàn thành việc bao vây Tập đoàn quân số 6 của Đức, do đó đã bao vây 330.000 quân Đức. Ông chỉ huy nhóm kỵ binh cơ giới hóa gồm Quân đoàn kỵ binh cận vệ 4 và Quân đoàn cơ giới hóa 4 trong Chiến dịch tấn công Bereznegovatoye–Snigirevka dọc theo bờ Biển Đen, thuộc Phương diện quân Ukraina 3, dưới quyền của tướng Rodion Malinovsky.[3]

Trong Chiến dịch Bagration vào mùa hè năm 1944, là một phần của Phương diện quân Belorussia 1, cụm kỵ binh cơ giới của Pliyev đã tấn công về phía Slutsk.[4] Theo Glantz và House, đơn vị đã rất thành công trong việc khai thác chiến thuật đột phá.[1] Vào mùa thu năm 1944, ông chỉ huy một cụm kỵ binh cơ giới gồm hai sư đoàn trong Chiến dịch Debrecen.[1]

Sự hữu hiệu của Cụm kỵ binh cơ giới Cận vệ 1 của Trung tướng Plyev được chứng mình trong các chiến dịch từ Ukraina, qua Đông Âu và đến Đức.[5] Với việc Dovator tử trận và Belov được thăng chức chỉ huy tập đoàn quân, Pliev trở thành tướng lĩnh kỵ binh xuất sắc nhất hơn bất kỳ vị tướng nào khác, điều này cuối cùng khiến ông trở thành quân nhân kỵ binh Liên Xô duy nhất nhận được hai Anh hùng Liên Xô. Kinh nghiệm quý báu của ông khi còn phục vụ trực tiếp dưới quyền Lev Dovator trong khi lập kế hoạch và chiến đấu với những người giỏi nhất, đặc biệt là trong giai đoạn đầu của cuộc chiến khiến ông nổi bật trong số những người còn lại. Khi có thêm nhiều xe tăng được bổ sung vào quân đoàn kỵ binh, Pliyev trở thành người chỉ huy tiên phong trong các cụm cơ giới hóa kỵ binh mới, ngay lập tức chứng tỏ bản thân trong trận chiến. Điều này khiến ông được các đồng nghiệp và binh lính kính trọng.

Ông kết thúc cuộc chiến với tư cách chỉ huy Cụm cơ giới-kỵ binh Liên Xô-Mông Cổ thuộc Phương diện quân Zabaikal ở Mãn Châu, chiến đấu chống lại Đạo quân Quan Đông Nhật Bản.[6]